Pencapaian besar pertama Jepun di peringkat antarabangsa datang ketika Sukan Olimpik Musim Panas 1968 di Mexico City, dimana mereka menang pingat gangsa. Walaupun keputusan ini membolehkan sukan bola sepak meningkat di Jepun, ketiadaan liga domestik profesional menghalang peningkatan dan Jepun tidak layak ke Piala Dunia FIFA sehingga 30 tahun kemudian..[3]

Pada tahun 1991, pemilik liga semi-pro Japan Soccer League bersetuju untuk membubarkan liga dan membentuk semula liga profesional Liga J., untuk meningkatkan profil sukan dan mengukuhkan program pasukan kebangsaan. Dengan pelancaran liga baru pada tahun 1993, minat terhadap bola sepak dan pasukan kebangsaan bertambah.

Walau bagaimanapun, dalam percubaan pertama untuk layak dengan menggunakan pemain profesional, Jepun terlepas tiket ke Piala Dunia FIFA 1994 selepas seri dengan Iraq dalam perlawanan akhir pusingan kelayakan, diingati oleh peminat sebagai Kesakitan Doha.

Penampilan pertama Jepun di Piala Dunia FIFA berlaku pada tahun 1998. Dua perlawanan pertama Jepun berakhir dengan kekalahan 1–0 kepada Argentina dan Croatia, walaupun beraksi dengan baik dalam kedua-dua perlawanan. Kempen mereka berakhir dengan kekalahan 2–1 kepada Jamaica.

Empat tahun kemudian, Jepun menjadi tuan rumah bersama Piala Dunia FIFA 2002 dengan Korea Selatan. Selepas seri 2–2 dengan Belgium dalam perlawanan pembukaan, pasukan Jepun layak ke pusingan kedua selepas kemenangan 1–0 ke atas Rusia dan 2–0 ke atas Tunisia. Walau bagaimanapun, mereka kemudiannya terkeluar daripada kejohanan itu ketik Pusingan 16 terakhir, selepas tewas 1-0 kepada pemenang tempat ketiga, Turki.

Pada 8 Jun 2005, Jepun layak ke Piala Dunia FIFA 2006 di Jerman, Piala Dunia ketiga berturut-turut mereka, dengan menewaskn Korea Utara 2–0 di tempat berkecuali. Walau bagaimanapun, Jepun gagal layak ke Pusingn 16 terakhir, tewas kepada Australia 1–3, seri dengan Croatia 0–0 dan tewas kepada Brazil 1–4.

Jepun memperoleh banyak kejayaan dalam Piala Asia, membawa pulang trofi pemenang dalam empat daripada enam kejohanan terakhir, di 1992, 2000, 2004 dan 2011. Pesaing benua utama mereka ialah Korea Selatan, diikuti oleh Arab Saudi dan yang terbaru Australia.

Jepun merupakan satu-satunya pasukan daripada luar Amerika untuk mengambil bahagian dalam Copa América, setelah dijemput pada tahun 1999 dan 2011.[4]

Ketika pusingan Kelayakan Piala Dunia FIFA 2010, dalam pusingan keempat kelayakan Asia, Jepun menjadi pasukan pertama selain daripada tuan rumah Afrika Selatan untuk layak selepas menewaskan Uzbekistan 1–0 di tempat lawan. Jepun diletakkan dalam kumpulan E bersama Belanda, Denmark and Cameroon.[5] Jepun menang perlawanan pembukaan mereka semasa Piala Dunia FIFA 2010 mengalahkan Cameroon 1–0 tetapi tews kepada Belanda 0–1 sebelum menewaskan Denmark 3–1 untuk layak ke pusingan seterusnya menentang Paraguay. Dalam perlawanan pertama pusingan kalah mati, Jepun tersingkir daripada pertandingan susulan penalti selepas seri 0–0 dengan Paraguay.

Selepas Piala Dunia, ketua jurulatih Takeshi Okada meletak jawatan. Beliau diganti oleh beks jurulatih Juventus dan AC Milan, Alberto Zaccheroni. Dalam beberapa perlawanan pertamanya, Jepun merekodkan kemenangan ke atas Guatemala (2–1) dan Paraguay (1–0), termasuk keputusan terbaik mereka – kemenangan 1–0 ke atas Argentina.

Pada permulaan tahun 2011, Jepun telah mengambil bahagian dalam Piala Asia 2011 di Qatar. Pada 29 Januari, mereka mengalahkan Australia 1–0 dalam perlawanan akhir selepas masa tambahan, memenangi Piala Asia keempat mereka dan layak ke Piala Konfederasi FIFA.[6]

Jepun kemudiannya memulakan kempen mereka untuk layak ke Piala Dunia 2014 Brazil dengan beberapa siri kelayakan. Mereka hany mengalami dua kekalahan kepada Uzbekistan dan Jordan, dan seri dengan Australia. Selepas itu pada 12 Oktober, Jepun mencatat kemengan bersejarah 1-0 ke ats Perancis, pasukan yang mereka tidak pernah kalahkan sebelum ini. Selepas seri 1-1 dengan Australia mereka layak ke Piala Dunia FIFA 2014, menjadi pasukan pertama selain tuan rumah Brazil untuk layak.

Jepun memulakan kempen Piala Konfederasi FIFA 2013 mereka dengan kekalahan 3–0 kepada Brazil. Mereka disingkirkan daripada pertandingan selepas kalah kepada Itali 3–4 tetapi mendapat pujian kerana gaya permainan mereka dalam perlawanan. Mereka kalah perlawanan terakhir mereka 1-2 kepada Mexico dan menduduki tempat ke-4 dalam kumpulan A Piala Konfederasi FIFA 2013. Sebulan kemudian, dalam Piala Asia Timur EAFF, mereka bermula dengan seri 3-3 dengan China. Mereka kemudiannya mengalahkan Australia 3-2 dan mengalahkan Korea Selatan 2-1 dalam perlawanan ketiga dan akhir Piala Asia Timur EAFF 2013 untuk memenangi kejohanan itu.

Mereka diletakkan dalam kumpulan bersama Ivory Coast, Greece dan Colombia ketika Piala Dunia FIFA 2014. Mereka kalah perlawanan pertama mereka kepada Ivory Coast 2-1 walaupun mendahului perlawanan, bolos du gol dalam jarak dua minit. Mereka seri dengan Greece 0-0 dalam perlawanan kedua mereka. Untuk layak ke pusingan kedua mereka perlu menang ke atas Colombia dan Greece perlu mengalahkan Ivory Coast. Greece mengalahkan Ivory Coast 2-1 tetapi Jepun gagal beraksi cemerlang menentang Colombia dan kalah 4-1, menyingkirkan mereka dari Piala Dunia. Alberto Zaccheroni meletak jawatan sebagai ketua jurulatih selepas Piala Dunia. Pada bulan Julai 2014, bekas jurulatih Mexico dan pengurus Espanyol, Javier Aguirre mengambil alih dan Jepun kalah 0-2 kepada Uruguay dalam perlawanan pertamanya.